BP（BackPropagation）神经网络是1986年由Rumelhart和McCelland为首的科学家小组提出，是一种按误差逆传播算法训练的多层前馈网络，是目前应用最广泛的神经网络模型之一。

BP网络能学习和存贮大量的输入-输出模式映射关系，而无需事前揭示描述这种映射关系的数学方程。它的学习规则是使用梯度下降法，通过反向传播来不断调整网络的权值和阈值，使网络的误差平方和最小。

BP神经网络模型拓扑结构包括输入层（input）、隐层(hiddenlayer)和输出层(outputlayer)。

遗传算法优化的BP神经网络建模借鉴别人的程序做出的仿真，最近才有时间整理。目标：对y=x1^2+x2^2非线性系统进行建模，用1500组数据对网络进行构建网络，500组数据测试网络。

由于BP神经网络初始神经元之间的权值和阈值一般随机选择，因此容易陷入局部最小值。本方法使用遗传算法优化初始神经元之间的权值和阈值，并对比使用遗传算法前后的效果。

步骤：未经遗传算法优化的BP神经网络建模1、随机生成2000组两维随机数(x1,x2)，并计算对应的输出y=x1^2+x2^2，前1500组数据作为训练数据input_train，后500组数据作为测试数据input_test。

并将数据存储在data中待遗传算法中使用相同的数据。2、数据预处理：归一化处理。3、构建BP神经网络的隐层数，次数，步长，目标。

4、使用训练数据input_train训练BP神经网络net。5、用测试数据input_test测试神经网络，并将预测的数据反归一化处理。6、分析预测数据与期望数据之间的误差。

遗传算法优化的BP神经网络建模1、读取前面步骤中保存的数据data；2、对数据进行归一化处理；3、设置隐层数目；4、初始化进化次数，种群规模，交叉概率，变异概率5、对种群进行实数编码，并将预测数据与期望数据之间的误差作为适应度函数；6、循环进行选择、交叉、变异、计算适应度操作，直到达到进化次数，得到最优的初始权值和阈值；7、将得到最佳初始权值和阈值来构建BP神经网络；8、使用训练数据input_train训练BP神经网络net;9、用测试数据input_test测试神经网络，并将预测的数据反归一化处理；10、分析预测数据与期望数据之间的误差。

遗传算法优化的BP神经网络建模借鉴别人的程序做出的仿真，最近才有时间整理。目标：对y=x1^2+x2^2非线性系统进行建模，用1500组数据对网络进行构建网络，500组数据测试网络。

由于BP神经网络初始神经元之间的权值和阈值一般随机选择，因此容易陷入局部最小值。本方法使用遗传算法优化初始神经元之间的权值和阈值，并对比使用遗传算法前后的效果。

步骤：未经遗传算法优化的BP神经网络建模1、随机生成2000组两维随机数(x1,x2)，并计算对应的输出y=x1^2+x2^2，前1500组数据作为训练数据input_train，后500组数据作为测试数据input_test。

并将数据存储在data中待遗传算法中使用相同的数据。2、数据预处理：归一化处理。3、构建BP神经网络的隐层数，次数，步长，目标。

4、使用训练数据input_train训练BP神经网络net。5、用测试数据input_test测试神经网络，并将预测的数据反归一化处理。6、分析预测数据与期望数据之间的误差。

遗传算法优化的BP神经网络建模1、读取前面步骤中保存的数据data；2、对数据进行归一化处理；3、设置隐层数目；4、初始化进化次数，种群规模，交叉概率，变异概率5、对种群进行实数编码，并将预测数据与期望数据之间的误差作为适应度函数；6、循环进行选择、交叉、变异、计算适应度操作，直到达到进化次数，得到最优的初始权值和阈值；7、将得到最佳初始权值和阈值来构建BP神经网络；8、使用训练数据input_train训练BP神经网络net;9、用测试数据input_test测试神经网络，并将预测的数据反归一化处理；10、分析预测数据与期望数据之间的误差。

1、先别着急写代码训练神经网络前，别管代码，先从预处理数据集开始。我们先花几个小时的时间，了解数据的分布并找出其中的规律。

Andrej有一次在整理数据时发现了重复的样本，还有一次发现了图像和标签中的错误。所以先看一眼数据能避免我们走很多弯路。

由于神经网络实际上是数据集的压缩版本，因此您将能够查看网络（错误）预测并了解它们的来源。如果你的网络给你的预测看起来与你在数据中看到的内容不一致，那么就会有所收获。

一旦从数据中发现规律，可以编写一些代码对他们进行搜索、过滤、排序。把数据可视化能帮助我们发现异常值，而异常值总能揭示数据的质量或预处理中的一些错误。

2、设置端到端的训练评估框架处理完数据集，接下来就能开始训练模型了吗？并不能！下一步是建立一个完整的训练+评估框架。在这个阶段，我们选择一个简单又不至于搞砸的模型，比如线性分类器、CNN，可视化损失。

获得准确度等衡量模型的标准，用模型进行预测。这个阶段的技巧有：·固定随机种子使用固定的随机种子，来保证运行代码两次都获得相同的结果，消除差异因素。·简单化在此阶段不要有任何幻想，不要扩增数据。

扩增数据后面会用到，但是在这里不要使用，现在引入只会导致错误。

·在评估中添加有效数字在绘制测试集损失时，对整个测试集进行评估，不要只绘制批次测试损失图像，然后用Tensorboard对它们进行平滑处理。·在初始阶段验证损失函数验证函数是否从正确的损失值开始。

例如，如果正确初始化最后一层，则应在softmax初始化时测量-log(1/n_classes)。·初始化正确初始化最后一层的权重。如果回归一些平均值为50的值，则将最终偏差初始化为50。

如果有一个比例为1:10的不平衡数据集，请设置对数的偏差，使网络预测概率在初始化时为0.1。正确设置这些可以加速模型的收敛。·人类基线监控除人为可解释和可检查的损失之外的指标。

尽可能评估人的准确性并与之进行比较。或者对测试数据进行两次注释，并且对于每个示例，将一个注释视为预测，将第二个注释视为事实。

·设置一个独立于输入的基线最简单的方法是将所有输入设置为零，看看模型是否学会从输入中提取任何信息。·过拟合一个batch增加了模型的容量并验证我们可以达到的最低损失。

·验证减少训练损失尝试稍微增加数据容量。

你是训练还是使用训练好的网络。若果是训练的话，就看你的训练数据的大小。我之前10万条数据，22个输入，1个输出。用matlab训练，也是一般的家用电脑就可以了。

若果只是使用训练好的神经网络，对配置根本谈不上要求！对每一个输入的预测只是简单的算术运算。《神经网络之家》